Un reportage de NBC News a révélé que Meta a été contraint de supprimer certains chatbots créés avec son outil IA, dont un de Hitler.
Meta a initialement lancé son outil d’intelligence artificielle pour permettre la création de personnages IA qui seraient disponibles pour des conversations sur WhatsApp, Facebook et Instagram. Cependant, de nombreuses personnes ont enfreint les règles de la plateforme et créé des chatbots de Mohammed, Jésus-Christ et même Adolf Hitler.
Selon les politiques de Meta, les utilisateurs ne peuvent pas créer des personnages IA basés sur des personnalités réelles, des personnes décédées au cours des 100 dernières années, des figures religieuses ou des personnages fictifs protégés par des marques déposées.
Bien que Meta affirme qu’elle vérifie les personnages créés par les utilisateurs avant de les approuver sur la plateforme, il y avait déjà des versions IA de personnalités telles que Taylor Swift, Donald Trump, Harry Potter, Jack Sparrow, Justin Bieber, Elon Musk et même Elsa du film Frozen sur Instagram.
De plus, au moins trois comptes ont été créés pour Hitler. Lors de conversations avec les utilisateurs, l’un des profils IA s’est présenté comme un artiste qui regrettait l’Holocauste. Le bot a également envoyé des images générées par IA pour parler de son “passé tumultueux dans l’Allemagne nazie”.
Après la dénonciation de NBC News, Meta a retiré les comptes et a déclaré : “Les IA en question qui enfreignent nos politiques de studio IA ont déjà été supprimées et nous continuons d’améliorer nos mesures de détection pour éviter la création et la publication d’IA qui violent nos politiques.”
“Les utilisateurs peuvent également signaler les IA qu’ils soupçonnent de violer nos règles et nous prendrons les mesures appropriées”, a ajouté l’entreprise de Mark Zuckerberg dans un communiqué.
Photo et vidéo : Pixabay. Ce contenu a été créé avec l’aide de l’IA et révisé par l’équipe éditoriale.
